Abdul Rasheed mula berkhidmat di BNM pada 1988. Sepanjang kerjayanya, beliau pernah memegang pelbagai jawatan pengurusan kanan dan ahli Jawatankuasa Dasar Monetari serta Jawatankuasa Kestabilan Kewangan sejak 2015.[1]

Beliau turut memainkan peranan penting dalam pembangunan dan pelaksanaan Pelan Induk Sektor Kewangan (2000-2010) dan Pelan Sektor Kewangan (2011-2020 dan 2022-2026). Pada tahun 2016, beliau dilantik sebagai Timbalan Gabenor BNM.[1][3]

Beliau dilantik sebagai gabenor BNM ke-10 pada 1 Julai 2023 bagi tempoh 5 tahun,[4] menggantikan Nor Shamsiah Mohd Yunus yang telah tamat tempoh perkhidmatannya sehari sebelumya, iaitu pada 30 Jun. Pelantikan beliau mendapat perkenan daripada Yang di-Pertuan Agong, Al-Sultan Abdullah.[1][5]